Una investigación reciente reveló que las tiendas de aplicaciones de Google y Apple aún albergan decenas de herramientas diseñadas para “desnudar” a personas mediante inteligencia artificial. A pesar de las estrictas normativas vigentes en el Reino Unido y otros países contra los deepfakes explícitos, estas plataformas continúan distribuyendo software capaz de generar imágenes sexualizadas sin consentimiento. El informe del Proyecto de Transparencia Tecnológica (TTP) identificó más de cien aplicaciones que vulneran la privacidad de mujeres y menores, lo que ha generado una alerta internacional sobre la seguridad frente a deepfakes.
Hallazgos de la investigación en tiendas oficiales
El análisis técnico detectó 55 aplicaciones en la Google Play Store y 47 en la App Store de Apple que ofrecen funciones para eliminar digitalmente la ropa de fotografías reales. Estos sistemas utilizan algoritmos avanzados para recrear la anatomía humana, produciendo resultados que pueden ser utilizados para el acoso o la extorsión. Una de las aplicaciones más populares, con más de cinco millones de descargas, permitía incluso transformar una imagen estática en un video de una persona realizando actos sugerentes. Este tipo de contenido evade los filtros de seguridad mediante descripciones ambiguas sobre “probarse ropa” o “edición de imagen artística”.
Por consiguiente, las políticas de contenido de ambos gigantes tecnológicos enfrentan duras críticas por su falta de rigor. Aunque Google prohíbe explícitamente el contenido sexual no consensuado y Apple veta material que considere “espeluznante” o de mal gusto, la disponibilidad de estas herramientas sugiere una falla en los procesos de supervisión. Tras la difusión del informe, Apple confirmó la eliminación de 28 aplicaciones vinculadas, mientras que Google procedió a retirar de forma gradual los títulos señalados por los investigadores del TTP.
Impacto social y exigencias de regulación
Organizaciones defensoras de los derechos de la mujer, como Refuge y Women’s Aid, calificaron este fenómeno como un abuso facilitado por la tecnología que tiene consecuencias devastadoras en la salud mental de las víctimas. Los activistas argumentan que la seguridad frente a deepfakes no puede depender únicamente de la buena voluntad de las empresas desarrolladoras. Exigen, en cambio, una regulación más estricta que incluya capacitación especializada para la policía y una respuesta judicial rápida ante la creación de imágenes íntimas generadas por computadora.
Actualmente, el marco legal en regiones como el Reino Unido ya considera ilegal la producción de material sexual explícito mediante IA sin permiso. No obstante, el fácil acceso a estas herramientas a través de dispositivos móviles complica la prevención del delito. Expertos en ciberseguridad sugieren que las tiendas de aplicaciones deben implementar verificaciones más exhaustivas basadas en el comportamiento del código y no solo en la descripción de texto. De este modo, se busca garantizar que la evolución tecnológica no se convierta en un instrumento de violencia de género sistemático.
Finalmente, el debate sobre la responsabilidad de las plataformas de distribución permanece abierto. Mientras las empresas intentan rectificar las infracciones detectadas, la velocidad de creación de nuevas aplicaciones similares supera la capacidad de respuesta manual. La implementación de sistemas de detección automatizados y la colaboración con organismos de transparencia tecnológica serán fundamentales para proteger a los usuarios de la manipulación digital malintencionada en el futuro cercano.
